Ông là con trai của tướng Tùy Bùi Nhân Cơ, theo Trương Tu Đà đánh dẹp nghĩa quân các nơi, tiêu biểu là Ngõa Cương trại. Là một viên tướng trẻ tuổi, dũng cảm, có sức khỏe siêu phàm nên ông đánh bại nhiều đại tướng Ngõa Cương trại và liên tiếp thắng lợi, nhưng lại chịu sự gièm pha, hãm hại của bọn giám quân, vì thế cha con ông giết chết giám quân, đầu hàng Ngõa Cương trại.

Về sau nghĩa quân Ngõa Cương giao chiến với Vương Thế Sung, Nhân Cơ hiến kế tập kích Lạc Dương, Lý Mật không theo. Lý Mật sau đó cho hai cha con ông cùng Trình Tri Tiết đi tăng viện cho Thiện Hùng Tín. Trong trận, ông bị trúng tên, suýt bị giết. Khi Lý Mật thất bại, cha con ông bị mắc kẹt ở gần Lạc Dương và bị Thế Sung bắt được. Thế Sung gả con gái cho ông, đối đãi với cha con ông rất hậu.

Hành Nghiễm tham gia vào vài trận chiến lớn, xung phong đánh trận, dũng cảm vô cùng, khó bề ngăn cản, đánh đâu tan đó, khiến kẻ thù khiếp đảm, nên ông được người đương thời tôn xưng là Vạn nhân địch. Thế Sung đâm ra kiêng dè uy danh của ông, tỏ ra đề phòng. Nhân Cơ biết ý, cùng bọn Vũ Văn Nho Đồng, Vũ Văn Ôn mưu lập Việt vương Dương Đồng. Năm 619, việc bị tiết lộ, cha con ông bị Thế Sung bắt chém ở Lạc Dương.